عندما تتخذ الآلات قرارات الحرب.. الأمم المتحدة تدق ناقوس الخطر
حذرت الأمم المتحدة من تراجع هامش القرار البشري في العمليات العسكرية مع التوسع المتسارع في استخدام الذكاء الاصطناعي، بما في ذلك التطبيقات المرتبطة بالأسلحة النووية، وسط مخاوف متزايدة من صعوبة السيطرة على الأنظمة الذكية وضمان بقائها تحت الإشراف البشري.
وفي مواجهة هذه المخاطر، أطلقت المنظمة الدولية مبادرة جديدة تهدف إلى بحث التحديات الأمنية المرتبطة بالاستخدامات العسكرية للذكاء الاصطناعي، ووضع أسس للتعاون بين الحكومات وشركات التكنولوجيا والخبراء من أجل الحد من المخاطر المحتملة لهذه التقنيات.
وقال روبن جيس، رئيس معهد الأمم المتحدة لبحوث نزع السلاح، ومقره جنيف، إن هامش التقدير البشري يتقلص بصورة متزايدة، بما في ذلك في المجال النووي، محذراً من صعوبة تحديد مدى اقتراب العالم من مرحلة قد تعمل فيها الأنظمة الذكية خارج نطاق السيطرة البشرية.
وأوضح جيس أن الذكاء الاصطناعي بات يتغلغل في مجالات عسكرية متعددة، تشمل أنظمة الإنذار المبكر وجمع المعلومات والاستطلاع، ما يجعل تحديد اللحظة التي يمكن أن يفقد فيها الإنسان السيطرة على القرارات أمراً بالغ التعقيد.
وأضاف أن التردد السابق في فرض ضوابط على هذه التقنيات بدأ يتراجع مع اتساع قدراتها وتزايد آثارها المحتملة، مشيراً إلى أن المجتمع الدولي بات أمام مرحلة تتطلب تحركاً أكثر جدية للتعامل مع استخدامات الذكاء الاصطناعي في المجال العسكري.
تحرك أممي وسط المنافسة الدولية
وأشار جيس إلى أن التنافس العالمي على الريادة في مجال الذكاء الاصطناعي يمثل تحدياً أمام الجهود الرامية إلى وضع قواعد مشتركة، لكنه أكد أن المخاوف الأمنية المرتبطة بهذه التكنولوجيا تتجاوز الانقسامات الجيوسياسية وتدفع القوى الكبرى إلى بحث سبل التعاون.
وفي هذا السياق، لفت إلى مقترح طُرح الشهر الماضي على الولايات المتحدة والصين لإنشاء نظام إنذار أمني يتعلق بالذكاء الاصطناعي، بهدف التعامل مع القضايا التي قد تشكل تهديداً للأمن القومي.
وكان معهد الأمم المتحدة لبحوث نزع السلاح قد أنشأ مركزاً للتميز في مجال الذكاء الاصطناعي والسلام والأمن، ليكون منصة دائمة تركز على دراسة انعكاسات هذه التكنولوجيا على الأمن الدولي. وتلقى المركز تمويلاً من الدول النووية الخمس الكبرى، وهي الولايات المتحدة وروسيا والصين وبريطانيا وفرنسا.
ومن المقرر أن يطلق المعهد منتدى جديداً ضمن أنشطة المركز، يجمع جهات معنية من قطاعات مختلفة ودول متعددة لبحث الاستخدامات العسكرية للذكاء الاصطناعي وتحدياتها.
ولم تُعلن تفاصيل جميع أهداف المبادرة، إلا أن الجهود المرتبطة بها تشمل أيضاً تطوير إطار طوعي للسلوك المسؤول في قطاع الصناعة، يستهدف وضع مبادئ عملية تساعد الشركات على مراعاة القانون الدولي وحقوق الإنسان عند تصميم الأنظمة العسكرية المعتمدة على الذكاء الاصطناعي وتطويرها.
مسؤولية شركات التكنولوجيا
وشدد جيس على أن القرارات التي تتخذها الشركات خلال مراحل التصميم والتطوير تؤثر في مدى موثوقية الأنظمة العسكرية المدعومة بالذكاء الاصطناعي وقدرتها على العمل بصورة يمكن التنبؤ بها، فضلاً عن مدى توافقها مع القانون الدولي.
وأوضح أن المعهد يعتزم إجراء مشاورات مع شركات تكنولوجيا الدفاع ومطوري البرمجيات والمقاولين من الباطن والمستثمرين، إلى جانب ممثلين عن الحكومات والمجتمع المدني والأوساط الأكاديمية والخبراء، بهدف بلورة مبادئ للسلوك المسؤول.
كما تشمل المبادرات الأممية بحث مخاطر إساءة استخدام الذكاء الاصطناعي من جانب الجماعات المسلحة، في ظل استخدام هذه الجهات للتكنولوجيا في دعم التخطيط للعمليات وتنفيذها وإدارة الجوانب اللوجستية المرتبطة بها.
وتسعى الأمم المتحدة، من خلال هذه التحركات، إلى توسيع النقاش الدولي بشأن الضوابط اللازمة للاستخدامات العسكرية للذكاء الاصطناعي، في وقت تتزايد فيه الحاجة إلى ضمان بقاء القرارات التي تنطوي على مخاطر جسيمة، ولا سيما المرتبطة بالأسلحة النووية، ضمن نطاق السيطرة البشرية.
